Yên Bái là một điểm sinh tụ của người Việt cổ, có nền văn hoá nhân bản, thể hiện ở những di vật, di chỉ phát hiện ở hang Hùm (Lục Yên), công cụ bằng đá ở Thẩm Thoóng (Văn Chấn), thạp đồng Đào Thịnh, Hợp Minh (Trấn Yên), trống đồng Minh Xuân (Lục Yên). Nhiều di chỉ khảo cổ được phát hiện, như đền, tháp, khu di tích lịch sử.

Được thành lập ngày 11 tháng 4 năm 1900, tỉnh Yên Bái được biết đến qua cuộc Khởi nghĩa Yên Bái của Việt Nam Quốc Dân Đảng vào thượng tuần tháng 2 năm 1930. Lãnh tụ là Nguyễn Thái Học đã bị thực dân Pháp bắt và đem hành quyết bằng máy chém ở Yên Bái cùng 12 đồng đội vào ngày 17 tháng 6 năm 1930.

Sau năm 1945, tỉnh Yên Bái có 5 huyện: Lục Yên, Than Uyên, Trấn Yên, Văn Bàn, Văn Chấn.

Ngày 29 tháng 4 năm 1955, tách 2 huyện Than Uyên và Văn Chấn để thành lập Khu tự trị Thái - Mèo[8], và sau là tỉnh Nghĩa Lộ.

Ngày 7 tháng 4 năm 1956, thành lập lại thị xã Yên Bái.

Ngày 1 tháng 7 năm 1956, chuyển huyện Yên Bình của tỉnh Tuyên Quang về tỉnh Yên Bái quản lý.

Ngày 16 tháng 12 năm 1964, thành lập 2 huyện Bảo Yên (tách ra từ 2 huyện Lục Yên và Văn Bàn) và Văn Yên (tách ra từ 2 huyện Trấn Yên và Văn Bàn)[9].

Ngày 27 tháng 12 năm 1975, tỉnh Yên Bái được hợp nhất với 2 tỉnh Lào Cai và Nghĩa Lộ thành tỉnh Hoàng Liên Sơn[10].

Ngày 12 tháng 8 năm 1991, tỉnh Hoàng Liên Sơn chia lại thành 2 tỉnh Lào Cai và Yên Bái. Tỉnh Yên Bái được tái lập, gồm thị xã Yên Bái và 7 huyện: Lục Yên, Mù Cang Chải, Trạm Tấu, Trấn Yên, Văn Chấn, Văn Yên, Yên Bình[11] (riêng hai huyện Bảo Yên và Văn Bàn lúc này thuộc tỉnh Lào Cai).

Ngày 15 tháng 5 năm 1995, tái lập thị xã Nghĩa Lộ trên cơ sở điều chỉnh một phần diện tích tự nhiên và dân số của huyện Văn Chấn[12].

Ngày 11 tháng 1 năm 2002, chuyển thị xã Yên Bái thành thành phố Yên Bái[13].

Ngày 10 tháng 1 năm 2020, sáp nhập một phần diện tích và dân số của huyện Văn Chấn vào thị xã Nghĩa Lộ.[14]